Rethinking Inference-Time Scaling in Local Computer-Use Agents: Failure Modes and Compute Tradeoffs
本地计算机使用智能体的推理时扩展再思考:失败模式与计算权衡
🧭 推理时扩展与失败分析
Hanyang University
系统实证表明,推理时扩展在本地 CUAs 中收益递减且会改变失败模式,需选择性地分配计算
📌 工作参考价值(4 点)
- 在资源受限的本地推荐 Agent 中,上下文扩展的收益会饱和:给 Agent 看更多历史轨迹(如用户会话日志)虽能提升稳定性,但 token 成本急剧上升,且可能让 Agent 提前宣布虚假成功。实践中应设置上下文窗口截断上限,并监控 false success 类型的失败。
- 时间维度的扩展不解决根本问题:增加最大步数(如搜索推荐多轮对话尝试)常常只是延长错误轨迹,而非纠正错误。应结合在线失败检测(如 stall 检测)和早停机制,而非盲目扩大步数。
- 结构化解耦(Planning + Execution)在本地模型上可能引入规划与格式解析开销:若将推荐 agent 拆分为计划器和执行器,小模型容易产出格式有误的计划,或计划质量低下。若必须使用两阶段架构,可考虑加入格式校验和重试逻辑,或改用单阶段端到端方案。
- 并行采样可以部分缓解单轨错误,但计算成本高:类似 Best-of-N 采样在本地部署中可能因并行调用导致硬件压力过大。可考虑在关键决策步骤(如 item 选择)才启用少数几次并行,并设置超时和多数投票机制。